これまでのコンピュータは、プログラマが書いたプログラム通りに計算を行って、答えを出していた。この場合、コンピュータは、プログラマが考えた通りに計算を実行することが想定される。そうでなければ、プログラマが書いたプログラムに誤りが存在していることになる。プログラマは、その誤りを見つけ出し、自分の思い通りに計算するように修正する。

近年のコンピュータの利用では、そのようなプログラムではなく、人間が与えた入力と、人間がコンピュータから得ることを期待している答えを示し、その入力と期待する出力の対が、ほとんど全て一致するまで、「コンピュータの学習」を行わせる。そのコンピュータの学習を実行する特別なプログラムを、プログラマが書くのである。具体的には、人間の神経細胞の働きを真似たプログラムである。

通常のプログラムでは、人間が問題を理解し、その問題の解き方を考え、その考えに基づいて計算の仕方を決め、プラグラムにする。しかし、機械学習プログラムを用いる場合、プログラマは、問題を理解する必要がない。問題の例を示すデータと期待する答えを示すデータの対を集めて、それをコンピュータに読み込ませ、入力データを処理して、それに対応して期待される答えを出す関係を見出せばよい。この作業を繰り返すと、コンピュータは、全ての入力データに対して、全く期待される出力に一致するように動作するようにできる。

これは、人間や他の生物が、何度も同じ経験を繰り返すと、考えなくても「正しい」答えにたどり着く、「学習」動作を、コンピュータに真似させているのである。そのため、これを機械学習と呼ぶ。ただし、コンピュータが行っている計算は、答えを導き出すための計算ではなく、これまでに与えられた入力と期待される出力の関係に適合する学習結果を、新しい問題に当てはめただけに過ぎない。

結論から言えば、コンピュータが学習の結果出した答えは、本当に正しいかどうかは分からないのである。しかし、そのようなコンピュータが増えると、個々のコンピュータが学んで得た学習結果を、互いに交換して、より高度な(洗練された)学びに変えることは可能である。つまり、人間のように学習が一人の人に限定されるのではなく、世界中のコンピュータが学んだ結果を利用することができるのである。学習の結果は、学習の経験の量が増加するに従って、必ず収束することが保証できれば、学習は実質的に、完全なものになる。

このような機械学習の技術を応用したものとしては、顔認証や指紋認証などに使われている画像データの認識、声による本人認証のための音声データの認識、自動車のエンジンの燃焼を制御するための燃料噴射制御装置、自動車のアクセル・ペダルからの信号を入力としてエンジンのスロットルを制御するアクセル制御装置、自動車のブレーキ・ペダルからの信号を入力としてブレーキ・パッドの締め付けを制御するブレーキ制御装置など、多方面の機器に使われている。

このような応用事例から考えられることは、機械学習の結果の動作は、過去の入力信号に対して、人間が妥当と考える出力を出すことを要求しているため、想定されていないようなデータの系列が入力されたとき、装置の出力が妥当でない動作結果を生み出すことにならないと言う保証はできない。つまり、コンピュータで動く装置が、今までのような単なる機械ではなく、あたかも機械の中に、意志を持った小人の人間が入り込んでいるような、考えられない動作をする可能性もある。人間は、それを理解していなければならない。

このことは、何か事故や事件が起こった時に、警察や裁判で、事件・事故の内容を調べ、何がその原因であり、誰が罰せられるべきであるかを決定しようとするとき、その調査や分析が、極めて難しくなることを示唆している。そのような調査・分析のためには、さまざまな関連データを集め、分析しなければならない。そのような分析を担当する、公的な独立した第三者機関なども必要になろう。

機械学習が応用されているかどうかは分からないが、2009年の8月、米国カリフォルニア州の高速道路で、日本メーカの高級車の急加速事故が発生した。この自動車は、保守点検のために、ディーラーが貸し出した自動車であった。この貸し出した車を運転して、高速道路を走行していた時、運転者がアクセル・ペダルを踏んでいないにも関わらず、車が加速し始めた。運転者は、携帯電話を使って「緊急呼び出し」を使い、助けを求めた。緊急呼び出しを受けたコールセンターでは、ブレーキを強く踏むように指示したが、車は減速しなかった。さらに、ハンドブレーキを使うことなどの対応も助言されたが、結局、加速は止まらず、自動車は高速道路の壁に激突した。乗車していた4人全員が死んだ。

事故後の11月4日、自動車の製造メーカは、アクセル・ペダルがフロアマットに引っかかった可能性があるとの分析を発表した。その翌日、同じ自動車を所有しているオーナーの一部が、集団訴訟を提起した。訴訟理由は、同型車で報告されている電子式スロットル制御装置を搭載していた2001年型以降の同型車では、急加速問題が続いていて、それがこの事故の直接的な原因であるとの主張であった。2010年1月になって、自動車メーカは、アメリカ、カナダ、ヨーロッパにおいて、大規模リコールを発表した。リコールの内容は、アクセル・ペダルの形状に不具合があるとするものであった。

電子式スロットル制御のソフトウェアに問題が残存していたかどうかは、明らかになっていないが、2010年2月、自動車メーカは、電子式スロットル制御の出力データと、電子式ブレーキ制御の出力データを常に監視し、両者からの出力の間に矛盾を検知した場合は、ブレーキの出力を優先するように、プログラムの修正を行ったことを発表した。さらに、自動車メーカは、オーナーとの間で、多額の損害賠償金で和解することを受け入れたと、報道されている。機械学習を応用しているとすれば、問題はもっと複雑になる。スロトルとブレーキの制御信号を監視して、ブレーキの信号を優先する「ブレーキ・オーバーライド・システム」方式の導入は、他社の自動車では例があったが、それを導入していなかったと言う意味で、メーカの責任は問われるべきであろう。これを「日本車バッシング」と捉えることは、問題を見誤らせ、問題の真の解決を遅らせる。